負載平衡

Moleculer 內建了幾種負載平衡策略，如果服務在多個節點實例運作， ServiceRegistry 可以使用這些策略來從活躍的節點中選擇某個節點。

內建策略

如果想要使用內建的負載平衡策略，可以在 registry 內設定 strategy ，可以是一個字串名稱或是客製化的 Strategy 類別。

輪替策略

RoundRobin 是採用 Round-Robin DNS 的方式，以循環的方式逐個輪替[2] 。

範例：

moleculer.config.js

module.exports = {
    registry: {
        strategy: "RoundRobin"
    }
};

隨機策略

Random 策略會隨機選擇一個可用的節點。

範例：

moleculer.config.js

module.exports = {
    registry: {
        strategy: "Random"
    }
};

CPU 使用率策略

CpuUsage 策略會選擇 CPU 使用率最低的節點。但由於節點清單可能非常大，因此該策略會在列表中隨機取樣，並選擇 CPU 使用率最低的節點，而不是對整個節點清單去選擇最低的節點。

範例：

moleculer.config.js

module.exports = {
    registry: {
        strategy: "CpuUsage",
        strategyOptions: {
            sampleCount: 3,
            lowCpuUsage: 10
        }
    }
};

低延遲策略

Latency 策略會定時發送 ping 來測試節點延遲時間，再選擇網路延遲最低的節點。由於節點清單可能非常大，因此該策略會在列表中隨機取樣，而不是對整個節點清單去選擇最低的節點。

範例：

moleculer.config.js

module.exports = {
    registry: {
        strategy: "Latency",
        strategyOptions: {
            sampleCount: 15,
            lowLatency: 20,
            collectCount: 10,
            pingInterval: 15
        }
    }
};

分片策略

Shard 策略是基於 Consistent Hashing 演算法，它可以根據 params 或 meta context 的鍵值來請求路由到節點。換句話說就是相同鍵值的請求，將會被路由到相同的節點上。

範例：以 params context 的 name 進行分片。

moleculer.config.js

module.exports = {
    registry: {
        strategy: "Shard",
        strategyOptions: {
            shardKey: "name"
        }
    }
};

範例：以 meta context 的 user.id 進行分片

注意，以 meta context 進行分片時，必須在前面加上 # 符號 ，實際執行時會忽略 # 。

moleculer.config.js

module.exports = {
    registry: {
        strategy: "Shard",
        strategyOptions: {
            shardKey: "#user.id"
        }
    }
};

範例：選項設定方式

moleculer.config.js

module.exports = {
    registry: {
        strategy: "Shard",
        strategyOptions: {
            shardKey: "#user.id",
            vnodes: 10,
            ringSize: 1000,
            cacheSize: 1000
        }
    }
};

覆蓋全域策略

你可以在 Actions 或事件設定負載平衡策略來覆蓋全域的負載平衡策略。

範例：對 hello Action 設定 Shard 策略來覆蓋全域的 RoundRobin 策略。

moleculer.config.js

module.exports = {
    registry: {
        strategy: "RoundRobin"
    }
};

greeter.service.js

module.exports = {
	name: "greeter",
	actions: {
		hello: {
			params: {
				name: "string"
			},
			strategy: "Shard",
			strategyOptions: {
				shardKey: "name"
			},
            handler(ctx) {
				return `Hello ${ctx.params.name}`;
			}
		}
	}
};

客製化策略

你也可以自己建立客製化策略，創建一個策略類別繼承自 BaseStrategy ，官方建議參考隨機策略的原始碼[4] 來實作 select 方法。

範例：建立客製化策略

my-strategy.js

const BaseStrategy = require("moleculer").Strategies.Base;

class MyStrategy extends BaseStrategy {
    select(list, ctx) { /*...*/ }
}

module.exports = MyStrategy;

範例:使用客製化策略

moleculer.config.js

const MyStrategy = require("./my-strategy");

const Strategies = require("moleculer").Strategies
// 註冊一個客製化策略
Strategies.register("myCustomStrategy", MyStrategy)

module.exports = {
    registry: {
        // 由於客製化策略已被註冊，可以直接填入字串名稱
        strategy: "myCustomStrategy"
    }
};

本地服務優先

ServiceBroker 會優先嘗試使用本地的服務實例(如果存在)來減少網路延遲。如果目標服務在本地的 Broker 為可用，則配置的策略將會被跳過， Broker 將始終優先採用本地服務。你可以在選項中設定 preferLocal: false 以關閉此邏輯。

moleculer.config.js

module.exports = {
    registry: {
        preferLocal: false
    }
};

參考文獻

[1] Load balancing, https://moleculer.services/docs/0.14/balancing.html
[2] Round-robin DNS, https://en.wikipedia.org/wiki/Round-robin_DNS
[3] Consistent Hashing, https://www.toptal.com/big-data/consistent-hashing
[4] Random strategy, https://github.com/moleculerjs/moleculer/blob/master/src/strategies/random.js

家家酒小劇場

• Otter - 等我學不動的時候，就換你幫我學吧QAQ
• Boxy - 學習不像平衡策略，還是要靠妳自己的啦XD